クラスメソッド データアナリティクス通信(機械学習編) – 2024年8月号
2024.08.03データ事業本部 インテグレーション部 機械学習チームの鈴木です。
クラスメソッド データアナリティクス通信(機械学習編) の2024年8月号です。2024年7月分のアップデート情報をお届けできればと思います。
はじめに
AWSでは、生成AI周りのアップデートが多かったと思います。SageMakerでデプロイした生成AIモデルのスケーリングの高速化は費用削減にも効果が大きいと思われるので、利用されている方は必見かなと思いました。
Google Cloudでは、Vertex AIエンドポイントがMistral AIモデルがサポートされたのが印象的でした。
それでは各々のアップデートを振り返って行ければと思います。
※ アップデートは機械学習チームメンバー内で業務に取り入れられそうかを中心に確認しているので、一部取り上げられていないものもあるかもしれませんが、参考になりましたら幸いです。また、複数のパブリッククラウドのサービスを取り上げますが、比べたりする意図はありません。
AWSのアップデート
Amazon SageMakerのアップデート
新しい生成AI推論最適化機能を導入
Llama 3、Mistral、Mixtralモデルなどの生成AIモデルで、コストを最大50%削減しつつ、スループットを最大2倍向上させる新しい推論機能の一般提供がアナウンスされました。
AWS SDK for Python (Boto3)、SageMaker Python SDK、AWS CLIから利用でき、東京リージョンでも提供されています。
SageMaker CanvasからFine-Tuningした基盤モデルをデプロイできるように
SageMaker CanvasからFine-Tuningした基盤モデルをリアルタイム推論エンドポイントにデプロイできるようになりました。
SageMaker JumpStartがLlama 3.1をサポート
Llama 3.1モデルがSageMaker JumpStartで利用できるようになりました。
SageMaker Inferenceで生成AIモデルの自動スケーリングが高速化
新しい高解像度CloudWatchメトリクス（ConcurrentRequestsPerModelとConcurrentRequestsPerModelCopy）を使用して、AIモデルの全体的なスケーリングレイテンシーを大幅に削減できるようになりました。
APIのアップデート
SageMaker TrainingやSageMaker Processingの新しいインスタンスファミリーのサポートなど、上記アップデート以外の修正がありました。
- 2024/07/09 - Amazon SageMaker Service - 5 new 6 updated api methods
- 2024/07/22 - Amazon SageMaker Service - 21 updated api methods
Amazon Rekognitionのアップデート
APIのアップデート
CreateProjectおよびCreateDataset APIを使ってプロジェクトやデータセットを作成する際に、タグ付けができるようになったようです。
Amazon Bedrockのアップデート
Claude 3 HaikuのFine-tuningをサポート（プレビュー）
プレビューでClaude 3 HaikuのFine-tuningをサポートしました。
Llama 3.1およびLlama 3.1 405Bをサポート
BedrockでもLlama 3.1がサポートされました。
Llama 3.1 405Bもサポートされました。
APIのアップデート
Guardrails for Amazon Bedrockのcontextual grounding checkに関するアップデートと、ServiceUnavailableExceptionエラーメッセージの追加がありました。
- 2024/07/10 - Amazon Bedrock Runtime - 1 new 2 updated api methods
- 2024/07/10 - Agents for Amazon Bedrock Runtime - 3 new 3 updated api methods
- 2024/07/10 - Agents for Amazon Bedrock - 21 new 10 updated api methods
- 2024/07/10 - Amazon Bedrock - 3 updated api methods
- 2024/07/25 - Amazon Bedrock Runtime - 2 updated api methods
Google Cloudのアップデート
Vertex AI SearchおよびGenerative AI on Vertex AIのアップデートがありました。ここでは後者のアップデートをご紹介します。
Generative AI on Vertex AIのアップデート
Vertex AIエンドポイントがMistral AIモデルをサポート
Vertex AIエンドポイントからMistral AIモデルを利用できるようになったようです。現状ではREST APIによる呼び出しがガイドで解説されています。
イベント・サービス情報
相談会
クラスメソッドのアナリティクス分野の支援では、AWS、Google Cloudを中心としたクラウド上でのデータ分析基盤環境づくりにおいてトータルでサポートしています。
このようなことでお困りではないですか？相談会にお気軽にご相談ください。
- 企業内に点在するデータを1箇所にまとめて分析したい
- クラウド上で分析基盤を導入したい・・・
- データを活用したいが、具体的に何から始めたらいいかわからない
機械学習相談会のお申込みはこちらです。
データ分析相談会のお申込みはこちらです。
機械学習システム導入支援サービスについて
AWSやGoogle Cloudなどパブリッククラウドにて、機械学習サービスを活用したシステムの導入支援を行います。詳しくは以下のページをご覧ください。
例えば以下のようなケースをご支援しています。
- ECサイトのレコメンドシステムを構築し、利用者にパーソナライズされたおすすめ商品を提示する
- SNSや問い合わせのログなどから、テキストマイニングを活用したインサイトの発見する
- 画像解析により、工場における不良品検出や農業・畜産業分野での生育管理を効率化する
- 売上や消費者の行動などから、将来の需要を予測する
Classmethod Odyssey
7月に開催されたClassmethod OdysseyにMLチームメンバーで登壇しました。
登壇内容はブログにも記載しておりますので、ぜひご覧ください。チームで6セッション開催しました。
最後に
2024年7月に発表された、AWSとGoogle CloudのML機能のアップデートについて、メンバーでピックアップした情報についてご紹介しました。
データアナリティクス通信(機械学習編) - 2024年8月号は以上です。
